← Back shared

본문 바로가기

블로그

카테고리 이동

논문 리뷰

[퀀트논문 리뷰 #9] 개인 투자자와 기관이 장 종료 직전 주가를 끌어올린다? End of Day Reversal

도전하는아이

2025. 4. 7. 9:10

최근 들어 개인 투자자 CTA (모멘텀 추종 투자)가 주식시장을 흔드는 현상은 국내, 해외 가리지 않고 발생되고 있다.

Acadian Asset Management에서는 2월에 미장이 한국화되어간다는 리포트를 쓰더니, 3월에는 한국 투자자의 레버리지 ETF 투자로 미국 시장이 큰 영향을 받게 되었다는 리포트를 발간하였다. (1,000억 달러가 넘는 자산을 운용하는 회사이니, 리포트를 막 쓰지는 않았을 것이다.)[The Squid Game stock market | Acadian Asset Management

Something’s happening in the U.S. stock market. We see cult stocks and crypto stocks. We see money pouring into leveraged single-stock ETFs and crypto ETFs. And we see dramatic price moves, for example in quantum computing stocks in December 2024. What’s going on? Here’s one theory: these phenomena...

www.acadian-asset.com

](https://www.acadian-asset.com/investment-insights/owenomics/the-squid-game-stock-market)

이렇게 개인 투자자의 시장 참여 가 활발해진 덕분에, Intraday Trading 분야에서도 예측 가능한 수익률 패턴이 발굴되었다고 한다.

일전에 소개한 논문인 'Hedging demand and market intraday momentum' 을 발표한 Guido Baltussen 교수님의 후속 연구이며, 이번 논문의 이름은 'End-of-Day Reversal' 이 되겠다.[End-of-Day Reversal

Individual stocks experience sharp intraday return reversals in the cross-section during the last 30 minutes of the trading day. This "end-of-day reversal" pattern is economically and statistically highly significant, is distinct from market intraday momentum, and primarily comes from positive price...

papers.ssrn.com

](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5039009)

이 논문은 장 마감 직전의 주가 반전 현상 을 다루었으며, 현상이 발생한 주요 이유로 개인 투자자의 투자 습관 을 제시하고 있다.

어떻게? 왜? 궁금하다면 아래의 글을 읽어보도록 하자.

00: 핵심 아이디어

1. Intraday momentum과 관련된 이전 논문 리뷰

① Intraday Patterns in the Cross-Section of Stock Returns (2010, Heston) : 특정 주식이 30분간 상승 또는 하락한 경우, 다음 30분은 반대의 모습을 보여줌

└ 이유: Bid-Ask Bounce(매수-매도 진동효과)에 기인하며, 그 충격은 60분 이내에 회복

② Market Intraday Momentum(2018, Lei Gao): 주요 주가 지수 ETF 대상으로 '장 초반 30분 수익률(r 1)'과 '장 마감 60분 전 ~ 30분 전 수익률(r 12)' 2가지 독립변수로 '장 마감 30분 전 ~ 종가 수익률(r 13)'을 예측할 수 있다.

└ 이유: 정보 전달의 지연성, 기관의 매매 선호시간(장초반, 장막판), 펀드 리밸런싱 등

③ Hedge Demand and Intraday Momentum (2021, Guido Baltussen): 주식, 채권, 원자재, 환 선물에 대해 '전일 종가 ~ 금일 장 마감 30분 전 수익률'을 바탕으로 '금일 장 마감 30분 전 ~ 종가 수익률'의 방향성을 예측할 수 있다. 그리고 현물 또한 같은 현상을 보여준다.

└ 이유: 장 마감 시점에 집중된 시장조성자의 헤지 활동, 레버리지 ETF LP의 리밸런싱 등

2. 이번 논문의 주요 논리: '전일 종가 ~ 당일 장 마감 60분 전까지의 수익률'(ROD3)가 마이너스인 주식은 장 마감 30분 전부터 주가가 상승하는 모습을 보인다.

- (ROD3 기간 수익률이 0보다 큰) 이외의 주식은 위의 1-③과 같이 옵션 감마 헤지, 레버리지 ETF 리밸런싱의 영향을 받는다.

- 이유(1): ROD3 기간 동안 하락한 주식 종목에 대해 개인 투자자가 Buy the Dip을 한다.

- 이유(2): ROD3 기간 동안 하락한 주식에 대해서는 공매도 투자자가 추가로 공매도를 하지 않는다.

3. 이러한 현상은 개인 투자자의 주목을 많이 받는 화제의 종목일수록 영향의 크기가 커진다.

01: 사용하는 데이터와 분석 방법

1. 분석 대상: NYSE, 나스닥, AMEX 상장 주식

2. 분석 기간: 1993년 1월 ~ 2019년 12월

3. 주요 변수

- ROD3: 전일 장 마감 ~ 당일 장 마감 60분 전까지의 기간 (미국 기준, 전일 16시 ~ 당일 15시)

- ONFH: 전일 장 마감 ~ 당일 개장 30분 후까지의 기간 (미국 기준, 전일 16시 ~ 당일 10시)

- LH: 당일 장 마감 30분 전 ~ 장 마감까지의 기간 (미국 기준, 당일 15시 30분 ~ 16시)

→ 위의 기간 동안의 수익률을 r ROD3, r ONFH, r LH 로 정의합시다.

4. 제외(전처리) : 정규 거래시간 외 거래, 단축 영업일, 시가총액 하위 10% 및 동전주, 반년 이하 상장주

ONFH, ROD3, LH 기간을 보여주는 그림

02: 장 마감 직전 주가 반전현상 확인을 위한 분석 결과

1. 각 30분 구간에 대한 Rolling 방식의 회귀분석 결과

- 분석: 각 30분 구간의 수익률에 대해서 기간 종료 24시간 전부터 1시간 전까지의 회귀분석 시행

└ 예를 들어, 15시 30분 ~ 16시 (LH 구간)에 대해서는 전일 16시부터 당일 15시까지의 수익률로 회귀분석

- 결과

① 왼쪽 그림: 장 초반(FH)와 장 마감 직전(LH)에 대해 특히 유의한 결과 를 보여줌 (Slope가 큼)

② 오른쪽 그림: 장 마감 직전(LH)는 1990년대부터 현재까지 유의한 t통계량과 Slope 를 보여줌

★ 내 생각 : 개인적으로 S&P500, 나스닥 지수의 보조지표와 오른쪽의 t통계량 또는 Slope 그래프의 연관성을 확인해보려고 하였으나, 발견되는 부분은 없었다. 오히려 개인 투자자의 거래량 이 어느 정도 상관성 있는 모습 을 보였다.(기사) 이는 개인 투자자의 거래 습관 때문이라는 논문 저자의 논리에 힘을 더하는 부분이 되겠다.

좌: 장 중 30분 간격별로 회귀분석 / 우: ROD3와 LH

2. 장 마감 직전 주가 반전현상의 팩터 영향 분석 - 시가총액, 거래량, 유동성, 변동성, Mispricing Score 등

- 분석: 아래의 여섯 개 팩터와 ROD3 수익률에 대해 각 종목을 5분위로 나누어 5X5 포트폴리오 구성 후, ROD3 수익률 최하위군(L) 매수, 최상위군(H)매도

전일 시가총액, 전일 거래량, 아미후드 유동성 부족 척도, 실현 변동성 (일중 5분 수익률 분산), 야간 변동성 (지난 90일 야간 수익률 표준편차), Mispricing Score (펀더멘털 대비 주가 왜곡)

Mispricing Score: 가치, 모멘텀, 이익 관련 지표로 분위별 점수를 구한 다음, 이를 평균하여 최종적으로 주가 왜곡 정도를 표현 (Stambaugh and Yuan, 2017)

- 결과

롱숏 전략 수익률 은 규모와 거래량은 양 극단, 유동성은 많을수록, 변동성은 적을수록, Mispricing이 덜 할수록 커진다.

② Mispricing 왜곡이 덜할수록 수익률이 크다는 점에서, 차익거래자들의 행태가 이 현상을 완전하게 설명하지 못함을 확인할 수 있다.

※ 차익거래자 행태: 장 초반에 저평가주 매수 + 고평가주 매도 → 장 종료 전 다시 저평가주 매도 + 고평가주 매수하여 포지션 회수

★ 내 생각

① 오히려 차익거래자들의 행동을 증명해 주는 결과인 것 같은데? 'Mispricing L + ROD3 H'가 큰 (-)인 점은 차익거래자가 매수한 저평가주를 다시 매도함을 의미하며, 'Mispricing H + ROD3 L'이 높은 (+)인 점은 차익거래자가 매도한 고평가주를 다시 매수함을 의미한다.

② 시가총액과 거래량이 양 극단을 보이는 점은 확실히 현상의 원인이 '개인 투자자'로부터 비롯됨 을 확인 할 수 있다. 개인 투자자는 아주 작은 스몰캡 종목 또는 아예 큰 종목에 주로 관심을 기울이기 때문이다.

Size, Volume, Illiquidity, Realized Volatility, Overnight Volatility, Mispricing Score 적용

3. ROD3 수익률 (+) or (-) 여부에 따른 주가 반전현상 크기 확인

- 분석: 'ROD3 수익률 < 0'인 경우만 반영하는 종속변수를 추가하여 회귀분석한 후, rolling 방식의 분석도 재시행

- 결과

① 명확하게 ROD3 수익률이 0보다 작은 경우에서만 t통계량이 유의 했다.

② 30분 단위의 그래프 또한, 장 마감 30분 직전에 ROD3 수익률 <0인 경우가 Slope가 극대화되었다.

→ 장 중 수익률 음인 주식이 장 마감 직전에 주가를 말아올리는 것이다.

ROD3 수익률이 양인 경우, 음인 경우에 대해 각각 회귀분석 결과

03: 장 마감 직전 주가 반전 현상의 원인 분석

1. 수익률 분해 적용 (Return Decomposition Exercise - Lo and MacKinlay, 1990) --- XS 전략만 다뤄보자.

- Cross-Sectional Strategy(XS 전략): 개별 주식 간 수익률 비교, 시장과의 수익률 비교를 통해 주가 반전현상 분석 (수익률 자기상관구조 활용)

① XS 전략의 수익률 식(1) = '시가 총액'과 '주식 ROD3와 시장 ROD3 간의 수익률 차'를 LH에 곱하여 수익률 계산

└ 즉, 시가 총액이 클수록, 시장보다 주식 ROD3 수익률이 아웃퍼폼할 수록 투자를 더 많이 하기 때문에 LH를 더 크게 반영

② 수익률 분해 식(2) = 개별 주식의 자기상관 + 주식 간 교차 자기상관 + 시장 평균 수익률의 교차상관

└ 개별 주식의 자기상관(Auto): 개별 주식의 자기반전(Self-Reversing) 또는 자기 모멘텀(Self-Momentum) 정도 (Ω: ROD3와 LH의 자기상관행렬, w: 개별 주식 가중치)

└ 주식 간 교차 자기상관 재고(Cross): 전체 시장의 공통 움직임을(주식간 상관관계)나타내는 항을 제거하여, 개별 주식 움직임만 남김 (w'Ωw: 전체 시장의 공통 움직임)

└ 시장 평균 수익률의 교차 상관(Mean): 시장 평균 ROD3와 시장 평균 LH 간의 교차 상관 (여러 주식들의 상관관계에 따른 시장 모멘텀 반영)

- 결과: 이 반전현상은 시장이 아닌, 개별 주식 단위에서 발생 함을 확인

① XS 전략의 수익률 -2.76bp: 개별 주식의 ROD3 수익률이 시장 ROD3 수익률에 비해 벗어날수록, 시가총액이 클수록 장 막판에 더 많이 조정받았다라는 의미

② 개별 주식의 자기상관(Auto) 수익률 1.09bp: (+) 값이 나왔다. 즉, 개별 주식의 ROD3 방향성을 LH가 추종 함을 의미한다 (반전이 아닌 모멘텀)

→ 그리고 이것이 주식 간 교차 자기상관을 만든다. 이로 인해 이전 논문에서 시장 전체적으로는 장 마감 직전 모멘텀을 받는 것처럼 보인 것이다.

③ 주식 간 교차 자기상관 제거(-Cross) 수익률 -3.74bp: 시장 공통적인 움직임(주식 간 교차 자기상관)을 빼버리니 (-)값이 나온다.

→ 여러 주식의 동조화 특성 때문에 시장 전체적으로는 모멘텀이 발생할 수 있지만, 개별 주식 간에서는 반전 현상이 나타난다는 뜻 이다.

④ 시장 평균 수익률의 교차 상관(Mean): 상관관계에 거의 기여하지 않는다.

2. 장 마감 직전 주가 반전현상 발생 이유에 대한 가설 확인(1): 유동성 문제? 뉴스 문제?

- 유동성 문제: ROD3 기간 동안 지속적인 유동성 충격을 맞아서 가격이 왜곡되나, 장 마감 직전 유동성이 공급되면서 제자리로 찾아가는 것?

→ 만약 이 가설이 맞다면, 다음날에 LH 수익률을 되돌리면 안 됨. 하지만 회귀분석 결과, 되돌려짐을 확인 (즉, 가설이 틀렸다.)

- 뉴스 문제: 뉴스가 일시적인 가격 충격을 만들기 때문?

→ 뉴스 있고, 없고를 나눠서 회귀분석을 해보았으나, 차이가 없었다. (즉, 가설이 틀렸다.)

3. 장 마감 직전 주가 반전현상 발생 이유에 대한 가설 확인(2): 옵션 감마 헤지와 레버리지 ETF 리밸런싱?

- 왼쪽 표: 개별 주식의 옵션 상품 여부(Panel A, B), 옵션 감마(2) (3)열, 레버리지 ETF(4) (5) 열에 따른 회귀분석 시행

① Panel A: 옵션 감마(Γ), 레버리지 ETF(LETF) 변수 추가 투입 후에서 ROD3는 꾸준히 Slope와 t통계량에서 유의한 모습 을 보여줌

② Panel B: 옵션이 없는 주식 종목에 대해서도 ROD3의 유의함은 확인되었음

→ 주가 반전현상은 옵션 감마 헤지나 레버리지 ETF 리밸런싱으로 인해 발생되는 것이 아니다.

- 오른쪽 표: S&P500, 나스닥100, 다우존스30, S&P400 미들캡, 러셀2000과 같은 지수에 속한 종목과 그렇지 못한 종목

→ 주가 반전 현상은 지수 포함 여부에 상관없이 모두 발생. 다만, 지수에 속한 종목이 더 크게 나타남 (아무래도 개인 투자자가 이쪽을 더 주목하니?)

좌: 개별 옵션의 존재 여부에 따라 구분하여 분석, 우: 지수 포함 여부에 따라 구분하여 분석

4. 장 마감 직전 주가 반전현상 발생 이유에 대한 가설 확인(3): 개인 투자자의 거래 (Retail Trading)

- 학문적 근거 (기존 논문)

① Barber, Odean(2008), Da et al.(2011), Barber et al.(2022): 개인 투자자는 평균적으로 화제가 된 종목을 매수하며, 이는 최초에는 긍정적인 가격 압력으로 작용하나, 그 후 주가 하락 반전으로 이어지는 경향 을 보임

② Kaniel et al.(2012): 개인 투자자는 어닝 쇼크 또는 어닝 서프라이즈 이후 해당 발표와 반대 방향으로 거래하는 경향을 보임

③ Luo, Ravina, Sammon and Viceira(2023): 개인 투자자는 특히 어닝 쇼크 때 역투자 거래 행동을 많이 보임

- 개인 투자자의 투자내역 확인 방법

① 주가 십진법 이전 시대(2001년 이전)의 소규모 거래에서의 리테일 주문 불균형

└ Lee, Radhakrishna(2000): $10,000 이하 거래는 개인 투자로 규정

└ Lee, Ready(1991): 매수로 개시된 거래인지, 매도로 개시된 거래인지 구분

└ 주문 불균형 계산 = (Buy개시 - Sell개시) / (Buy개시 + Sell개시)

※ 왜 주가 십진법 이전 시대만 적용? 이후에 기관이 주문을 쪼개어 소규모 거래를 주도하기 시작했기 때문

② 개인 거래 분류 알고리즘으로 리테일 주문 불균형 구분

└ Barber(2024): 개인 거래는 거래소에서 코드를 별도 분류 가능함

└ '0 ~ 0.04' 사이의 소수점을 가진 거래를 매도 거래로 식별 및 '0.6 ~ 1' 사이의 소수점을 가진 거래를 매수 거래로 분류

※ 서브페니잉(Sub-Pennying): HFT가 1, 2페니 더 높게 또는 1, 2페니 더 낮게 제시해서 개인 거래 주문을 먹어버림

③ 로빈후드 거래자의 지분변화: 로빈후드 웹크롤링으로 log(1+소매보유량) 적용

- 결과: 종속변수가 '수익률'이 아니라, '소매 주문 불균형' 인 점을 유의

ROD3가 음수일 때 매수 방향으로 소매 주문 불균형이 나타남을 확인 (다른 팩터들에도 영향 없음)

② Panel C에서도 ROD가 음수일 때 거래자의 지분이 늘어남

→ 개인 투자자가 실제로 장 중 하락하는 주식에 대해서 장 마감 직전 30분 동안 매수 함을 확인함

A: 주가 십진법 이전 시대 / B: 서브페니잉 기반 / C: 로빈후드 투자자 지분 변화

5. 장 마감 직전 주가 반전현상 발생 이유에 대한 가설 확인(4): 공매도 감소

- 분석: 종속변수에 '(장 막판 30분 동안의 신규 공매도 거래량) / (하루 공매도 거래량)' 적용

- 결과

① (1)열: ROD3 수익률과 양의 상관관계 확인, 즉 ROD3가 양이면 신규 공매도 증가, 음이면 신규 공매도 감소

② (2)열 이후: ROD3 수익률 <0일 때, LH기간 신규 공매도량 감소 확인. 이는 팩터를 추가한 이후에도 변함없음

→ 개인 투자자의 Buy the Dip과 연계하여 장 마감 직전 주가가 상승 방향으로 움직일 수 있음

ROD3 수익률과 장 마감 30분 전 공매도 투자 연계 분석

6. 그렇다면 '개장 초반'에서의 개인 투자자의 움직임은 어떠한가?

- 학문적 근거 (기존 논문)

① Berkman et al.(2012): 개인 투자자가 개장 직후 매수하기 때문에, 야간 수익률이 높고, 일중 수익률이 낮음

② Jones et al.(2024): 개인 투자자는 장 시작 시 거래에서 외삽적 임 (대충 미래를 보고 매수로 들어간다는 뜻)

- 분석: 종속변수 ON t+1, FH t+1 은 각각 야간 수익률, 개장 후 30분간 수익률이며, 이후 3개 열은 개장 후 30분간 리테일 주문 불균형임

- 결과

① ON t+1: 야간 수익률은 ROD3 수익률 양/음 상관없이 (+)로 작용

② FH t+1: ROD3 수익률이 음수인 경우, 장 시작 후 30분 동안 수익률이 마이너스로서 다시 제자리에 돌아오는 경향 을 보임

③ 리테일 주문 불균형: 안타깝게도 장 시작 후 30분 동안 개인 투자자는 매수하는 모습 (Slope가 (-)이므로)

→ Barber et al. (2024) : 개인 투자자의 관심으로 장 초반에는 긍정적인 가격 압박을 유도하나, 미래에는 이것이 되돌려짐 을 확인

→ 위의 논문을 실증하는 결과가 되겠으며, 개인 투자자의 개장 시, 장 마감 시 매수하는 경향이 예측 가능한 일중 수익 패턴을 일으킴

야간 수익률과 장 초반 30분 수익률, 그리고 개인 투자자의 장 초반 매수여부 확인

04: 내 생각 정리

1. 이 논문에 따르면 장 중 하락하는 주식에 대한 가장 적절한 투자 시간은 한국 시장 기준 14시 ~ 15시, NYSE 기준 14시 30분 ~ 15시 30분 인 것으로 보인다.

- 물론, 장 중 하락하는 주식에 대해서 Buy the Dip을 할 필요가 있는가부터 고민해야 할 부분이기도 하다.

- 가장 최악의 투자 타이밍은 '장 초반 30분' 이 되겠다. 이때 주가가 전일 대비 상승한다고 할지라도, 향후 조정될 수 있으니 매매를 피할 필요가 있다.

※ 물론, 기관은 유동성이 가장 풍부한 장 초반 30분 시간대를 가장 선호한다. 하지만 일반 개인 투자자는 그런 유동성까지 고려해야 할 정도는 아니니 굳이 따라가야 할 필요는 없어보인다.

- 그리고 내가 "개인 투자자와 똑같이 투자하지는 않았는가?"라는 반성 도 하게 된다. 본능이 부르는 매매는 피해야 할 필요가 있다.

2. 개인 투자자는 일반 주식으로는 이 논문으로는 매매하기 어려울 듯하고, 레버리지 ETF를 활용해야지 어느 정도 수익을 거둘 듯하다.

- 논문 저자는 이 롱숏 전략으로 가치가중 기준 연간 +8.8%(일일 3.49bp), 동일 가중 기준으로 연간 +11.5%(일일 4.56bp) 의 성과를 거두었다고 밝혔다.

- 하지만 개인 투자자는 거래 수수료, 세금을 생각하면 어려울 수 있다.

- 그래서 좀 더 투자 종목의 범위를 줄이고(개인 투자자의 관심주 위주), 레버리지 ETF를 사용해서 변동성을 극대화해야 수수료와 세금 부담 이후에도 수익을 거둘 수 있을 듯하다.

3. 챗GPT와 구글 코랩의 도움을 받아서 NYSE M7 종목을 대상으로 테스트를 해보았다.

- M7: 마이크로소프트, 애플, 아마존, 알파벳(구글), 메타, 테슬라, 엔비디아

- 테스트 기간: 최근 일주일 (yfinance 라이브러리의 분봉 제공이 최대 일주일이라 알고 있음)

- 테스트 방식: 챗GPT로 ROD3 수익률이 음수일 때, 장 마감 30분 전 매수 후, 종가에 매도

- 결과: 아래와 같이 수익은 나온다. (수수료, 슬리피지 미고려)

→ 2025년 3, 4월 요즈음같이 개인 투자자의 Buy the Dip 이 확실한 시기가 없다. 한번 전략을 구체화 봐야겠다.

챗GPT 딸깍잼